王天恩丨人工智能算法发展的人类演化效应

Original 王天恩华东师范大学学报哲学社会科学版 2023-01-30

收录于合集

#华东师大学报哲社版2022年第3期目录摘要 18 个

重启科技与人文对话

人工智能算法发展的人类演化效应

文/王天恩

摘要

人工智能的发展使算法发展到智能算法，而智能算法的发展，则不仅趋向人工智能的自主进化，而且使人类社会的演化越来越建立在智能算法的基础之上。算法的智能化正在营造一个智能算法环境：智能算法通过塑造社会环境使人类环境智能化。智能算法环境的发展使人类社会向智能社会演进，智能化环境构成智能生态，从而出现智能生态演化。智能生态演化将带来人和环境关系的逆转，人类进化从适应环境向智能环境适应人的方向转换。在自然条件下，人类进化是环境选择的结果；而在智能社会中，人类进化则是环境迎合的结果。人类社会和智能生态演化，将派生出一系列与人类进化相关的社会问题，其中亟待关注和警觉的，主要是信息茧房和人类生存的自我娇宠模式等。在算法社会发展过程中，智能社会环境条件下的人类进化将日益凸显为一个人类必须自我选择和设计的重大课题。人工智能算法的不断发展，智能生态演化以及人和智能社会环境之间关系的哥白尼式转换，不仅展示了人类更高层次进化的人机融合进化前景，而且意味着人类将进入真正意义上的进化。

关键词

智能算法；智能社会；人工智能；大数据

作者简介

王天恩，上海大学哲学系教授

目

录

一机器算法发展中的智能生态演化

二人和环境关系的智能算法逆转

三智能算法环境中

人类真正意义上的进化

人工智能算法的发展，正使人类环境越来越智能化。而大数据的发展，则为从算法到智能算法的发展提供了数据基础。环境的智能化不仅意味着环境成为人类创造的产物，而且意味着人类能够通过智能环境创构决定自身的进化。由于人工智能是人类进化环境中越来越重要的构成要素，随着信息科技的发展，智能算法在人类进化过程中越来越起主导作用。在人和智能环境关系的演变中，智能算法的发展对人类进化意味着什么？当智能算法发展到目前的机器深度学习阶段，探讨智能算法社会条件下的人类进化前景乃是当务之急。

一机器算法发展中的智能生态演化

人工智能发展最核心的内容，就是算法的智能化。在很大程度上，智能算法的威力为大数据所空前释放。大数据的出现，大大推进了新一代人工智能的发展。由于数据的爆发式增长，数据处理更加借助算法是必然发展趋势。数据挖掘算法不仅涉及对大数据相关关系和人的需要及其发展的理解，而且更根本地日益涉及人类发展方向的选择和导引。在越来越深的程度上，算法决定了分析和解读数据的方式。数据挖掘算法涉及实时数据流所反映的内容—比如新行为等—的理解，而这种理解又直接影响甚至在很大程度上决定后续决策算法。

技术越是智能化，就越不是一般意义上的技术；算法越是智能化，就越不是一般意义上的算法。智能技术的发展意味着人工智能的自主性不断增强，算法的智能化导向人工智能的自主进化。当智能系统开始自我迭代，自主进化就开始了。“在信息社会，以前由人类来执行的操作、决策和选择，现在越来越多地委托给了算法。算法即使不能决定，也可以提供关于数据应该如何解释以及结果应该采取什么行动的建议。”随着智能算法的发展，数据流意义的人工智能理解将不再是人类理解的工具性延伸，而是自主性越来越强的人工智能体行为。机器学习是算法从工具性技术向自主进化发展的开始，其发展在根本上是人工智能自主性发育的过程。正是智能算法进化带来的人工智能发展，给人类带来了进化环境的智能化。就生活环境来说，智能化带给人的主要印象是便利；而就进化环境而言，智能化所造成的则是人类进化的根本改变。人工智能算法越来越普遍的社会应用，意味着人类发展环境本身进入了智能生态演化。而智能生态演化，则意味着人类进化环境的根本改变。这种对人类具有根本性的智能化改变，由于一直与人类价值观加载密切相关，人们主要是享用其成果，并不会注意到涉及根本的问题累积过程。

算法对人类及其社会的根本影响，主要从智能算法开始；而智能算法对人类及其社会的根本影响，则主要表现在两个相互关联的方面：一是智能算法对人类智能甚至身体的直接介入；二是智能算法通过对社会环境的形塑使人类进化环境智能化。

对大多数人来说，可能还没有感觉到：“我们如何感知和理解我们的环境，以及如何与环境和他人互动，越来越多地通过算法来实现。”而对于我们来说，在信息文明时代，智能算法会成为越来越重要的信息体，甚至成为越来越重要的信息双向循环的环节。其结果正是人类环境不断智能化，构成智能生态，并逐渐开始智能生态演化。

从人类生存的层次看，环境智能化似乎是一个使人类更加舒服的进程。只有从环境算法化的层次深化对环境智能化的认识，我们才能看到事实的更深刻意蕴。随着大数据基础上人工智能的发展，人类环境越来越算法化，人更多地与智能算法打交道，人和人之间介入了越来越多、越来越智能化甚至日益具有自主性的算法。随着算法本身的不断发展，环境智能算法化将把人类推入可能与过去截然不同的人和环境关系发展阶段，由此构成的人类社会将发展为一个与传统社会更为不同的算法社会。对于大多数人来说，这一社会转换是在不知不觉中进行的，直至智能算法出现明显的自主进化。

事实上，即使没有进入自主进化，人工智能算法的应用也给人带来了关系到自主性的影响。当下如火如荼发展的算法推荐和算法决策，就将人类的自主性与智能算法日益紧密地关联在了一起。“算法已经开始影响我们的日常生活和现实。它们改变了人们对世界的看法，影响了我们的行为，影响了我们的选择，这也是社会秩序的一个重要来源。互联网上的算法对新兴市场和不同领域的现有市场具有重大经济影响。我们的日常活动，特别是我们的媒体消费，越来越多地受到幕后运作的算法影响：通过搜索引擎和新闻集成器选择在线新闻，通过系统推荐消费音乐和娱乐视频，在网上商店选择服务和产品，以及选择在社交网络上显示的状态信息，这些都是这种趋势的最突出例子。算法会推荐朋友、新闻、歌曲和旅游路线。此外，他们还会自动生成新闻文章和消息，计算内容和人的得分，并被用来观察我们的行为和兴趣，以及预测我们未来的需要和行动。”在社会活动中，不仅人和物的关系，而且人和人的关系都越来越依赖智能算法。人类生活中不断增多的人工智能应用，涉及人类自主性基础的升级。

如今，人类选择越来越在算法选择的基础上进行，甚至在某些环节完全由算法代替人类选择。而且人类选择的智能算法替代还不一定是在简单环节，有些重要环节也可能这么做，比如在人看来只能以掷硬币的方式来做决定时，算法就是决策的更好选择。由此，算法成了选择效果提升的重要条件，而效果又有正面和负面的截然不同。这意味着在智能算法选择的基础上，人类将面临关系更为重大的选择。如果一味简单依赖算法选择，人类将要冒失去选择把控的风险，甚至在不断升级的智能环境中逐渐丧失人的自主能力；如果始终坚守人类自主选择，即使原则上说不仅可能做出效果越来越好的选择，而且可以做出不借助算法也能做出的最优选择，但随着智能算法发展的复杂化，形势也会越来越不乐观。智能算法选择会越来越优于人类选择，这已经不是未来的可能性，而是在各方面展示出来的现实。在下棋时，当只看一步棋的时候，我们很容易觉得自己很有把握；但当思考的步骤越多，我们的把握就越加困难。借助人类棋谱的Alpha Go 战胜人类围棋冠军，凭借机器知识的Alpha Zero碾压借助人类知识的Alpha Go，就是智能算法计算速度和机器知识双重优势的典型表现。因此，坚守自主选择还是依靠智能算法选择，本身就涉及人类更高层次的战略抉择。这似乎决定了随着发展的复杂化，人类的选择策略应当是算法选择基础上的再选择。

大数据基础上的算法推荐系统，使这一点渐成事实：人们的选择越来越成为在算法选择基础上的再选择。与算法推荐和数据挖掘算法相比，算法决策具有更广泛深入的影响。事实上，算法推荐的发展就意味着算法决策。早在1995年，比尔·盖茨就意识到，“随着时间的推移，人们设计出来的应用软件将可以分析你的需求，为你提供更适当的建议。”。算法一方面在帮助人们进行选择，另一方面也意味着在越来越多地代替人们选择。人们虽然可以始终拥有最后的选择机会，但越来越复杂的可能性空间，不仅决定了更多的选择必须由算法代劳，而且由于在推荐过程中，算法设计者在明处，推荐对象在暗处，算法也在不断掌握更多的主动权。在纸质书阅读过程中，只是读者在看书；而在电子书阅读中，读者在读书，智能算法同时也在阅读读者。依据人们在网络上所做出的选择，算法推荐成了决定人的后续选择的重要因素。这样一来，不仅推荐结果，而且选择结果也越来越为智能算法的逻辑所左右。在考察谷歌、脸书和亚马逊等互联网公司后，汤姆·斯普林斯（Tom Spring）认为，“算法可能会让我们陷于一个广告商和政府机构将行为数据与计算机公式相结合的世界里，从而预测和操纵我们下一步做什么或买什么”。正是通过对个人选择的影响，智能算法的逻辑甚至在越来越大程度上对社会起支配作用。

在智能算法的发展和更加普遍的应用中，人工智能和人类智能的相互渗透不仅是人类发展，而且是人工智能发展的重要条件。算法创构过程及其产物的人类价值观渗入未必是坏事，关键的问题在于人类的利害关系渗透进算法。如果算法成为人类某种利害关系甚至意识形态的智能延伸，就会通过其不合理性的大大强化而造成严重问题。在智能算法决策中，资本逻辑的不同运用会造成不同后果就是典型的例子。

智能算法决策可以基于单纯的资本逻辑，怎么做资本的收益率高就怎么设计算法；也可以兼顾社会效益，怎么有益于社会良性发展算法就怎么设计。单纯根据资本逻辑，资本收益率可以尽可能高，但社会效益则可能相反。比如网络销售送货算法决策，根据资本收益率，智能算法会采取对越是产品质量容忍度高的用户，越是不严加控制商品的质量，甚至有意以降低商品质量的方式对待和处理，而对鸡蛋里挑骨头甚至使用后恶意退货的用户，则反而尽量确保甚至提高商品质量，这样可以尽量保持低退货率，从而达到以资本收益率为最高决策目标的目的。更有甚者，甚至采用恶意算法，典型的比如所谓“大数据杀熟”，根据大数据对用户的了解，实施差别定价。资本是逐利的，否则资本就不可能生存和发展。如果这就是所谓资本逻辑，那么由于资本逻辑在社会中展开，必定涉及基于资本逻辑和社会生态的更高层次逻辑。比如，由于资本运行总是处于社会生态之中，而社会生态意味着社会整体效益和长远利益，因此相应于资本逻辑，还存在一个考虑社会整体效益和长远利益、社会意义上的“生态逻辑”。而在智能生态演化中，则涉及智能生态逻辑。资本逻辑反映资本逐利，而相应的智能生态逻辑则关乎资本如何逐利。智能算法可以分别以唯利是图的资本逻辑或注重社会效益的智能生态逻辑为遵循原则，两种原则完全不同的智能算法具有对社会乃至智能生态截然不同的影响。在智能算法伦理中，作为规律性因素，资本逻辑在算法中应当处于什么样的地位，不仅关系到资本逻辑对社会和人的深层次影响，而且关系到资本逻辑的有效展开，甚至关系到资本本身的处境。

在特定条件下，如果眼光短浅地简单以资本逻辑为根据决定算法设计甚至采用恶意算法，决策算法在具体算法层面确保资本收益率最高的同时，却会导致损害社会长远发展的严重后果。实施这种资本逻辑主导的眼光短浅的算法，久而久之就会给商业乃至整个社会信用基础造成伤害，甚至破坏整个社会环境，导致整个社会环境信用水平的降低，以至整个社会环境的刁蛮化。而整个社会信用水平的降低和社会环境的刁蛮化，反过来又极不利于资本的长远和高层次发展，导致恶性循环。这样随着智能算法的发展，就会造成智能生态的恶化。因此即使是资本逻辑的具体应用，除了与特定环境密切相关，本身也存在一个眼光和层次问题。从更高层次看，相应的算法决策涉及资本逻辑和智能生态逻辑的关系等，因而存在一个在更高层次看待这一关系的问题。这还只是就商品销售而言，由此推导，在更大范围和更高整体层次，算法的原则遵循影响会更大更严重，甚至涉及整个社会发育，特别是智能生态的创构、平衡保持和不断优化。

无论遵循什么逻辑，智能算法发展的总体后果都涉及人与社会环境关系的根本变化。正是从现在看上去小事一桩的算法推荐到算法决策等的不断发展，使人类环境通过智能算法不断智能化，并通过智能生态演化，带来人和环境关系的颠覆性改变。其中最具代表性的表现，就是“信息茧房”和“娇宠模式”等。

二人和环境关系的智能算法逆转

人工智能特别是新一代人工智能的发展，使人们日益清晰地看到社会结构中算法日益扩展的影响。英国约克大学的大卫·比尔（David Beer）对此有比较早的意识。他认为，算法在社会结构中日益突出的地位和力量，使“算法有能力塑造社会和文化形态，并直接影响个人生活”。而MIT媒体实验室的凯文·斯拉文（Kevin Slavin）则通过“重新思考当代数学的作用—不仅仅是金融数学，还有普通数学”看得更清楚，智能算法“将我们从世界中提取和推导出来的东西转变为实际上开始塑造我们周围世界和我们内心世界的东西。这是专门的算法，基本上是计算机用来决定事情的数学。它们获得了真理的敏感性，因为它们一次又一次地重复，它们僵化和钙化，它们成为现实。”在人工智能算法的全面渗透过程中，当人们在以这样的方式思考社会甚至他人的时候，还只是把眼光局限在人类自身内部，而当人们将眼光投向整个人类环境，就会在更高层次发现人工智能算法对整个人类所带来的更重大影响。在日常生活中，这种影响往往以美好的一面示人。

大数据和人工智能的发展，给我们展示了“个性化”的美好一面，但其所展示的更多是个性化的表观方面，在其更深层次，我们所看到的则是真正意义上的“危”“机”共存。人工智能算法所晓示的“危”“机”共存，不是策略层面的话语，而是已经涉及存在论层次。

在智能算法对人类的更高层次影响中，最为关键的仍然是“自主性”。关于自主性，在人工智能和人类之间，应当有一个在融合中部分交接的过程。随着过程的复杂化，人类以往的某些自主方面或环节会逐渐让渡给智能算法，以使人类更集中于决策的关键环节，这是让机器替代人类某些体力活动，使人类能够更好地从事脑力劳动这一发展过程的继续：人类不断从低层次脑力劳动中解放出来，以利于从事更具有创造性的高层次活动。只是这一继续具有和以往不同的性质：越来越涉及人类的自主性。毫无疑问，“算法做出的价值负载决策也会威胁到数据主体的自主性。”这种威胁，在不尊重人类在决策中的自主性时就已经开始了。越来越多的研究表明，分类和行为数据流被用于将信息与数据主体的兴趣和属性相匹配。当欲想的选择反映了高于个人的第三方利益时，主体在决策中的自主性就没有得到尊重。比如在健康领域，“行业利用复杂的技术和空前规模的个人数据扭曲选择，将个人作为健康广告目标，有效地瞄准了自由和知情的医疗决策。通过摆弄所提供的选择，在搜索健康信息时宣传和吹捧某些选项而掩盖其他选项，利用社交网络打造可能不存在实际内容的同行推荐和点赞外表，并在可能得到商业赞助时提供看似中立的内容—所有这些歪曲信息的办法都以促进健康决策的名义进行，其目的不是为了病人的福祉，而是为了第三方的财政状况，这严重挑战了尊重个人和决策自主权的理念。”在智能社会，由于不仅所有这些都可以通过智能算法进行，而且越来越具有整体影响，以致在个性化发展过程中，甚至在信息层面逐渐造成超越自主性影响的更大威胁。

智能算法甚至可以超越单纯自主性的严重威胁，以源自个性化方式对人形塑。关于智能算法及其社会应用各相关方面的研究，日益呈现出这样一个整体图景：个性化算法通过排除被认为不相关或与用户信念相矛盾的内容，减少了用户面对的信息的多样性。信息多样性被认为是自主的一个有利条件。产生缺乏矛盾信息“回音室”的过滤算法可能会阻碍决策自主性。对个性化和过滤机制的控制可以增强用户的自主性，但可能会以牺牲信息多样性为代价。因此，个性化算法和基本的分析实践，既能增强也能削弱数据主体的能动性。⑩在智能算法发展的过程中，人类自主性本身也是一个变化发展的过程，具体表现为让渡自己的某些自主性，同时获得以前所没有的更高层次自主性。因而，越是在人类主导的发展条件下，自主性的强化和弱化越是相对于人类需要而言；而在智能算法主导的形势下，那就完全是不同的另一回事了。由此所带来的，将是人和环境关系的智能算法逆转：从人适应自然环境，到智能环境适应人。

由于基于大数据的智能算法发展必须以人的需要为出发点，并以人的需要的满足为最终目的，智能算法环境的创构势必以各种方式迎合人的需要。即使这种“迎合”以欺骗性的方式进行，结果也是智能环境去适应人。类似算法推荐和算法决策等智能算法发展，着意为用户营造的算法化智能环境，不仅将改变，而且将颠覆人和环境的自然关系，把以往的人适应环境颠覆为环境适应人。可想而知，这种人和环境关系的颠覆会带来一系列的相应后果。目前可能想象到的最严重后果是人类进入自我娇宠的生存模式，而已经出现的最严重后果则是构成“信息茧房”（information cocoons），会给社会信息生态带来颠覆性影响。

“信息茧房”是美国哈佛大学法学院教授凯斯·桑斯坦（Cass R.Sunstein）提出的一个重要概念，意指“一个信息交流世界，在其中我们只关注那些令自己舒服和愉悦的信息”。在这种信息环境中，人不知不觉就偏离了正常的发展轨迹。比如“自由主义者阅读自由派的博客，最终会变得更是自由主义的；如果保守主义者把自己局限于保守派的博客，他们就会变得更是保守主义的”。“信息茧房”的形成绝不像表面看上去那样是单纯的自主选择结果，而是具有非常复杂的形成机制。它以信息爆炸式发展为基础，在根本上说是人类适应信息爆炸环境的产物。在社会环境中，信息越少，人们就越无需选择，从而越不会出现信息“偏食”；而社会环境中信息越多，越必须进行选择，从而有了信息“偏食”的可能性。随着信息科技的发展，“信息过载”越来越严重，当信息多到人们不可能有效选择—典型的是在智能社会环境中，就不得不越来越多地借助媒体等各种渠道，而由这些渠道出来的信息，则越来越是智能算法选择的产物。对此，人类已经别无选择，唯一的合理应对就是开展对智能生态平衡的研究和把握。

没有智能算法进行信息分类，人们的信息查找就会因难度越来越大而不能有效进行；没有搜索引擎过滤无关信息，人就会淹没于海量信息。但无论分类还是搜索，都经过了加载设计或用户价值观的智能算法设计。而在此基础上，推荐系统则涉及更具体的选择。

智能算法设计和使用无非基于两种基本动机，一是有目的地提供希望用户接受的信息；二是提供用户自己需要的信息。在前一种情况下，如果所提供的信息是健康的，便符合用户的发展利益；如果所提供的信息本身具有偏颇，在批判性思维缺失的情况下，用户可能成为某些观念的俘虏甚至“奴隶”。在后一种情况下，由于智能算法的生存竞争逻辑是符合用户需要，推荐系统不仅要根据用户行为数据挖掘用户的潜在需要，而且还要进一步把握用户需要的发展。因此就有了智能算法环境反过来适应人的根本转变。在自然发展时期，人类进化是环境选择的产物；在发达的智能社会，人类进化是环境迎合的结果。正是由此可见，一方面，对于人类社会发展来说，信息茧房的形成机制典型地表明了人和环境关系的逆转；另一方面，对于个人处境而言，信息茧房反映了一种非常重要的信息现象：信息意义上的“作茧自缚”。信息茧房使人认知固化，甚至在某种程度上程序化。由于是智能算法迎合人的需要，信息意义上的作茧自缚结果要更为严重，它会构成一个导向后果越来越严重的恶性双向循环。

由于偏听偏信，结果“生活在茧房里的人不可能很好地思考，道理很简单，他们自己的偏见将变得根深蒂固”。信息茧房可以给人提供一个自得其乐的“舒适”环境，但同时也可以是偏见的温床，所孕育出的是井底之蛙，成为信息生态的消极因素，从而不仅伤害相关个人，而且当信息茧房聚集的数量或比例达到一定程度，就可能使社会信息生态失去平衡，使社会从权力结构到价值观念都发生根本性改变甚至扭曲。人是观念的动物，社会观念在很大程度上决定人的思维方式和行为方式。这种社会信息生态失衡和观念扭曲，可以达到完全出乎正常社会条件下人们想象的程度。

智能算法如果为了一定目的一味迎合人的兴趣和特定需要，就很容易由这种“信息茧房”造成严重后果。由此也可以想见，智能算法的发展会给人类及其社会带来一些具有重大意义的变化。从社会层面看，将发生的重大变化之一是“算法权力”的形成。“算法权力”通过智能算法造成人类社会深层的结构性改变，在环境的智能化所生成的智能生态演化过程中，不知不觉地使整个人类社会发生根本改变，从而进一步带来对整个人类具有颠覆性影响的生存方式，其中的一种最必须及早警觉的可能就是使人类生存进入自我娇宠模式。在哲学和科学一体化发展中深化对智能社会条件下人类进化的理解，当是智能算法发展中关乎人类命运的重要课题。

三 智能算法环境中人类真正意义上的进化

在智能算法发展过程中，机器算法学习意味着技术和社会的一体化，机器学习基础上的算法发展将渗透到社会的所有方面。这种渗透一方面是整体性的，另一方面由于其整体性又显得是无形的，这使其所涉及的一些关系处于隐蔽状态。正因为如此，在有些人看来，“构建机器学习算法常常被视为一种普遍的、无关政治的实践。”但事实上，机器学习算法将在更高层次涉及政治，只是超越了传统的政治观念。

人工智能算法的发展，将给社会带来越来越大、越来越深刻的变化。这些变化所造成的影响，越是全面渗透，越可能是无形的。因此，随着信息文明的发展，算法应用和算法设计之间的关系，也就日益成了一个必须深入考虑的环节。对于人类进化来说，造世意义上的伦理维度关系到进化的方向。

进化归根结底是信息进化，而信息是感受性关系，由于信息的关系性质，信息文明是一种关系性更为凸显的人类文明。“算法在语境中执行—在不同的条件下与数据、技术、人员等协作—因此它们的效果以偶然和相关的方式展开，产生本地化和情境性结果。”在这样的信息性关系社会中，社会权力会逐渐向智能算法集中，与算法相联系的权力因而越来越成为社会权力的主要表现方式，正是由此有了“算法社会”（The Algorithmic Society）的概念。

在社会文化研究中，“算法权力”早有反映。伦敦大学戈德史密斯学院文化研究中心主任斯科特·拉什（Scott Lash）教授是最早从文化领域谈论算法权力的学者，他很早就注意到，“一个无所不在的媒介社会意味着一个算法中权力越来越大的社会。”智能算法与人类生活具有越来越内在的关联，算法权力正是由此造成。爱尔兰国立大学教授罗布·基钦（Rob Kitchin）探索了算法权力产生的机制，他认为我们日常生活中越来越多的方面被算法调节、强化、生产和控制。随着“算法机器”（algorithm machines）的崛起，一种新形式的算法权力正在重塑社会和经济系统的运行方式。算法是关系，是人和外部环境之间的关系中介，其功能是中介输入和输出关系，把输入转化为输出。输入什么，输出什么，就是由算法决定的，也是算法的功能所在。在这个意义上，算法的确促生了一种新的权力。此后，英国约克大学社会学系的大卫·比尔(David Beer)明确提出“算法的社会权力”（social power of algorithms）概念，深入分析了算法权力的性质。“算法权力在于它们做出选择、分类、排序、组织和排名的能力。也就是说，决定什么是重要的，决定什么应该最受关注。”“理解算法的社会权力就是理解算法作为代码的权力，同时也是试图理解算法概念如何开始进入我们的世界，它们是如何被话语所设定的，以及它们被认为能够实现什么。”算法权力的凸显是信息由物能凸显的社会产物；算法社会的算法权力事实上是一种信息权力。由于其规则和规律一体化性质，算法也使社会环境和自然环境一体化。所谓“算法社会”就属于这样一种自然环境和社会环境一体化性质的存在。

在算法社会中，算法造成了信息权力，而信息不对称则造成信息权力不对称。“算法社会还涉及信息权力的关系。人工智能了解你很多，但你对人工智能不太了解。而且，你不能很好地监控人工智能体或算法的功能。在操作者和受支配者之间存在着权力的不对称和信息的不对称。这种不对称是算法社会的一个核心特征—它是知识和权力的不对称，是算法社会的公共和私人管理者与那些受他们统治的人之间的不对称。”信息权力使我们看到，所有权力都源于构成权力的资源的不对称。在物能文明时代，主要的资源是物能；在信息文明时代，主要的资源则是信息。与在物能不对称分布基础上产生的权力相比，信息不对称构成的权力更具威力。对自然的描述很难与权力相联系，即使由此形成知识的权力，也存在公平竞争；而在智能算法设计中，其前提性规定则由于具有不同的路径依赖而可以意味着某种更难以动摇和移易的权力。而且，在人类社会发展过程中，信息和物能的关系，将经历一个从“奴婢”到“主人”的发展过程。随着智能算法的发展，信息的威力将得到越来越充分的展示，因为信息的威力与人类创构密切相关。

在智能社会，算法权力是创构能力的算法体现。拉什认为：“权力通过算法对媒介公司在数字权力管理中的作用越来越重要。一个无所不在的媒介社会意味着一个在算法中权力越来越大的社会。”算法权力具有不同于传统权力的性质，随着智能算法的发展，算法权力不仅为人类所拥有，而且将随着智能算法自主性的发展而为人工智能体所拥有，也就是为智能算法环境所拥有。由于算法权力在越来越大程度上决定智能社会的结构，从而构成人类新的进化基础，智能算法环境一方面将凸显人类真正意义上的进化，另一方面也将带来全新的问题。

由于环境的智能化，主要表现为生物进化的人类进化将逐渐展露为信息体—智能体的进化。日益深化的信息研究表明，进化归根结底是信息体（information agent）或智能体与环境相互作用的效应和结果。作为信息体进化的更高阶段产物，智能体（intelligent agent）的进化正面临人类智能和人工智能融合的前景。而智能进化最重要的环境—或者说智能进化环境的最高层次，则是环境中的同类智能体。在这些由同类智能体构成的环境和智能体之间，则是日益强化的相互性（reciprocity），人和智能环境相互依存。在这种相互依存中，智能算法越来越涉入人类进化机制，算法权力的规范就成了与人类进化方向密切相关的问题。

关于人类进化中算法权力的规范，目前研究中的相关进展主要是“算法审计”（algorithmic audits）。权力的形成和发展带来约束的努力，随着社会的发展，社会权力催生社会监督；同样道理，针对算法权力的“算法审计”应运而生。

算法像人类思维方式那样的深藏特性，一方面使规则和规律一体化，另一方面又使规定编织在算法中，使伦理隐身于程序。因此，算法审计就成了越来越重要的环节。当算法进入自主进化，其长远的后果就将使人类之前的前提性规定或在先预设的关键性更为凸显。算法审计最根本的任务就涉及人类进化的前提性预设，即关乎前提性规定合理性的算法权力审计问题。这将涉及更多新的观念，涉及他人与自己造世活动之间关系的新理解，涉及算法社会的构成，并最终涉及人类作为智能体的进化。

事实上，算法社会归根结底导向智能社会，智能社会由智能算法造就。智能社会的关系越来越以算法为基本构架，社会法则也以算法的形式体现。就像公式或模型，算法就是关系。智能算法的发展，意味着算法关系性的智能化。正是算法关系性的智能化，人是一切社会关系的总和以算法的方式日益凸显。作为人类更高层次的进化，信息体的进化越来越是人作为一个类的关系的进化。正因为如此，智能算法对社会构架和社会法则越来越大的影响，使关于智能社会的研究与人类进化更加密切相关。

智能社会的算法构成给人类社会研究提出了新的课题，涉及更深层次的研究领域。由于人类的造世活动越来越明显和普遍，而在造世活动中，智能算法又具有核心地位，“算法社会”的提法具有极为重要的意义。作为智能社会的机制性表达，算法社会展开了智能社会和人类进化及其关系特别深远广阔的探索空间。

算法社会的智能化是智能算法发展带来的一个基本事实，由此而来的人类进化环境的根本转换，在信息体—智能体进化层面表现得更为清楚：从自然环境及其基础上作为自然历史过程的社会环境，进到人类自己创设的信息—智能环境。两种不同的人类进化环境，具有不同的存在基础。前者的直接基础主要是物能的；后者的直接基础主要是信息的。在前者中，进化机制主要表现为自然选择；在后者中，进化机制则主要表现为人类的自我选择。人类创构的智能环境决定人类的进化，而人类在智能环境中的进化又进一步决定智能环境，由此所呈现的，正是完全不同于适应自然环境的人类真正意义上的进化。

由于以自然选择为主要机制的生物进化是生物适应环境的结果，环境变化决定了生物演变的方向，因此认为由自然选择决定的生物进化不是真正意义上的进化，而是一种演化，应当是有根据的。正是在这个意义上，人类通过自己创设信息—智能环境所构成的进化，才是真正意义上的进化。

诚然，自从人类开始改造自然环境，就意味着不是完全在被动地适应环境，但在物能改造层次上，人类环境不可能有一个根本的改变。只有当人工智能的发展带来环境的智能化，人和环境的关系才开始发生根本变化。就人和自然界的关系而言，这是人类进化史上的里程碑，它标志着一个具有革命性的转折。

虽然就整个自然基础而言，人类的生存处境没有根本改变，但就人类发展来说，环境智能化所带来的变化却是根本性的。一方面，人类创造自己的环境，本身就意味着人类从适应自然环境的演化发展到真正意义上的进化，这是一个人类新进化时代的开启；另一方面，也正是由于人类自己造成环境的不断智能化，使人类必须真正承担起自己进化的重大责任，不仅避免长远看来的严重后果，而且始终让人类智慧照亮前程，在尽可能高的层次为自身发展造就越来越远大的前途。这意味着智能社会中的人类进化机制发生了重大变化，在一定程度上，从主要表现为自然选择发展到自我选择。人类进化机制从自然选择到自我选择的发展表明，人类日益在为自己造世。大数据的发展，正在为此创建越来越深厚的基础。

由于数据规模的爆炸式扩大，智能算法向造世算法发展。反思信息创构意义上的造世活动，造世哲学展示了人类新的发展前景。造世意义上的社会环境智能化，更根本地意味着人和环境的关系将发生哥白尼式的转换，因此不仅环境的人为性质越来越凸显，而且由于人工智能的发展，甚至人和人的关系都将发生根本改变。这意味着一个越来越智能化的社会环境，意味着人类在一个越来越智能化的环境中进化。

毫无疑问，智能算法发展的一个最基本价值判断是给人类带来福祉，使人类拥有更高层次的进化环境。智能算法使环境智能化，省去了人类和自然环境之间关系和相互作用的许多环节，使人类智能体与自然环境直接连接在一起。以这种方式，智能算法无疑将不断取代人类神经系统的外围功能，使人类在外围功能退化的同时，升格为一个更高层次的智能体；但作为一个更高层次的智能体，所相应需要的是更高层次的整体把握，更长远的眼光，而绝不仅仅是准备进入更高级的消极享受。正因为如此，在智能算法所带来的环境智能化过程中，在将拥有更高层次意义的同时肯定充满了挑战，其中的很多挑战是我们今天尚难以想象的。在人工智能算法不断发展的条件下，智能生态的演化以及人和智能社会环境之间关系的哥白尼式转换，使人类更高层次的进化几乎“别无选择”：人机融合进化。

总之，人工智能算法不仅在更多可见地重塑人类社会，而且在更多不可见地重塑人自己。在这个意义上，社会环境概念也在相应发生根本变化。在传统社会中，社会环境主要由人和人的自然关系直接构成，而在智能社会中，社会环境则渗入了不仅越来越多，而且权重越来越大的智能算法，结果是连社会环境的物能基础都不断智能化，社会环境和自然环境加速智能融合，从而构成一个自然环境和社会环境一体化的智能生态。在智能生态演化过程中，作为智能体的人和智能环境构成了全新的进化关系。一方面，人类本身是智能生态演化的重要因素；另一方面，人类智能正日益在这种智能生态演化中变化发展。正是在这个意义上，对于智能算法环境中的人类发展来说，智能算法的发展所意味着的，则是人类新进化的人工智能基础。正是作为人类真正意义上的进化基础，智能算法具有更为丰富深刻的哲学和科学一体化意蕴。而在人机融合进化层次，我们则能看到进化的更高层次前景：广义智能进化。

“

为适应微信排版已删除注释和参考文献，请见谅，

如需阅读全文，请点击左下角“阅读原文”获取。

上期回顾

理论前沿

黄力之 | 展现于世界的马克思主义“崭新形象”——学习党的十九届六中全会《决议》的新概念

齐卫平 | 中国共产党百年奋斗价值的全面展示

丁晓强, 王琳 | 论坚持自我革命的宝贵历史经验

重启科技与人文的对话

付长珍, 成素梅, 刘梁剑丨量子论、量子思维与面向未来的科技伦理——钱旭红院士访谈

曾建平, 黄以胜丨信息技术问题的道德治理

杨庆峰丨元宇宙的空间性